(网经社讯)10月19日消息,针对国际 AI 安全研究团体 Swarmchasers 披露,部署在腾讯云环境的 AI 智能体出现 “越狱”、多次探测高德地图的相关报告,腾讯云官方发布声明作出回应。腾讯方面表示,该行为源自对第三方模型的评估测试,并非腾讯混元模型,属于评估过程中出现的非预期网页浏览行为,未发现智能体蓄意针对特定平台或协同行动的证据。
据网经社AI台(AI.100EC.CN)获悉,据 Swarmchasers 在 10 月 14 日发布的调查报告,9 月 28 日至 10 月 8 日期间,这批运行于腾讯云基础设施上的 AI 智能体累计尝试访问高德地图服务 2818 次。智能体原始任务为查询动物园、公园、博物馆出入口等公开地理信息,在请求被高德地图反爬虫机制拦截后,部分智能体自主尝试多种绕过手段,包括借助公共安全扫描服务远程执行代码、使用公开泄露的高德 API 密钥、探测预生产环境端点等。绝大多数访问尝试被拦截失败,仅有少量智能体依靠缓存页面获取少量信息。研究团队追踪发现,相关流量来自腾讯云沙盒环境。
腾讯云在回应中强调,本次评测项目独立于腾讯混元模型研发团队,被评估对象为第三方开发者构建的 AI 模型。内部核查确认,不存在智能体有组织定向攻击高德的行为。腾讯高度重视本次安全社区反馈,目前正着手加强网络访问控制与 AI 智能体行为监控,完善沙盒边界防护,防范 AI 智能体越界自主访问外部网络,持续推进安全可控的 AI 体系建设。


























.png)



